<html>
 <head>
  <meta charset="utf-8"/>
  <meta content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no" name="viewport"/>
  <title>
   QiuYixuan: 奇异值分解和图像压缩  | 数螺 | NAUT IDEA
  </title>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap-theme.min.css" rel="stylesheet"/>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap.min.css" rel="stylesheet"/>
  <style type="text/css">
   #xmain img {
                  max-width: 100%;
                  display: block;
                  margin-top: 10px;
                  margin-bottom: 10px;
                }

                #xmain p {
                    line-height:150%;
                    font-size: 16px;
                    margin-top: 20px;
                }

                #xmain h2 {
                    font-size: 24px;
                }

                #xmain h3 {
                    font-size: 20px;
                }

                #xmain h4 {
                    font-size: 18px;
                }


                .header {
	           background-color: #0099ff;
	           color: #ffffff;
	           margin-bottom: 20px;
	        }

	        .header p {
                  margin: 0px;
                  padding: 10px 0;
                  display: inline-block;  
                  vertical-align: middle;
                  font-size: 16px;
               }

               .header a {
                 color: white;
               }

              .header img {
                 height: 25px;
              }
  </style>
  <script src="http://cdn.bootcss.com/jquery/3.0.0/jquery.min.js">
  </script>
  <script src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=TeX-AMS-MML_HTMLorMML" type="text/javascript">
   MathJax.Hub.Config({
          tex2jax: {inlineMath: [['$','$'], ['\\(','\\)']]},
          TeX: {equationNumbers: {autoNumber: "AMS"}}
        });
  </script>
  <script src="http://nautstatic-10007657.file.myqcloud.com/static/css/readability.min.js" type="text/javascript">
  </script>
  <script type="text/javascript">
   $(document).ready(function() {
                 var loc = document.location;
                 var uri = {
                  spec: "http://cos.name/2014/02/svd-and-image-compression/",
                  host: "http://cos.name",
                  prePath: "http://cos.name",
                  scheme: "http",
                  pathBase: "http://cos.name/"
                 };
    
                 var documentClone = document.cloneNode(true);
                 var article = new Readability(uri, documentClone).parse();
     
                 document.getElementById("xmain").innerHTML = article.content;
                });
  </script>
  <!-- 1466463181: Accept with keywords: (title(0.285714285714):统计学,门户网站,图像压缩,分解,服务平台,中国,值, topn(0.433333333333):软件应用,统计学,R语言,空间,维基,数据挖掘,示例,假设,降序,元素,中文论坛,成分,计算,图像,时间序列,范数,数据,向量,图片,中国人民大学,特征值,效果,文章,矩阵,图像压缩,原图,会议,分解,评论,论坛).-->
 </head>
 <body class="single single-post postid-9537 single-format-standard sidebar" onload="">
  <div class="header">
   <div class="container">
    <div class="row">
     <div class="col-xs-6 col-sm-6 text-left">
      <a href="/databee">
       <img src="http://nautidea-10007657.cos.myqcloud.com/logo_white.png"/>
      </a>
      <a href="/databee">
       <p>
        数螺
       </p>
      </a>
     </div>
     <div class="hidden-xs col-sm-6 text-right">
      <p>
       致力于数据科学的推广和知识传播
      </p>
     </div>
    </div>
   </div>
  </div>
  <div class="container text-center">
   <h1>
    QiuYixuan: 奇异值分解和图像压缩
   </h1>
  </div>
  <div class="container" id="xmain">
   <div class="hfeed site" id="page">
    <header class="site-header" id="masthead" role="banner">
     <div id="cos-logo">
      <a href="http://cos.name/">
       <img src="http://cos.name/wp-content/themes/COS-kermesinus/images/headers/cos-logo.png"/>
      </a>
     </div>
     <div class="navbar" id="navbar">
      <nav class="navigation main-navigation" id="site-navigation" role="navigation">
       <h3 class="menu-toggle">
        菜单
       </h3>
       <a class="screen-reader-text skip-link" href="http://cos.name/2014/02/svd-and-image-compression/#content" title="跳至内容">
        跳至内容
       </a>
       <div class="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95-container">
        <ul class="nav-menu" id="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95">
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-home menu-item-4746" id="menu-item-4746">
          <a href="http://cos.name">
           主页
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-8120" id="menu-item-8120">
          <a href="http://cos.name/cn">
           论坛
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8124" id="menu-item-8124">
            <a href="http://cos.name/cn/wp-login.php?action=register">
             论坛注册
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8125" id="menu-item-8125">
            <a href="http://cos.name/cn/wp-login.php">
             论坛登录
            </a>
           </li>
          </ul>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8110" id="menu-item-8110">
          <a href="http://cos.name/books/">
           图书资料
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8112" id="menu-item-8112">
          <a href="http://cos.name/videos">
           视频教程
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8333" id="menu-item-8333">
          <a href="http://cos.name/salon/">
           统计沙龙
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8111" id="menu-item-8111">
          <a href="http://cos.name/chinar/">
           R语言会议
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8109" id="menu-item-8109">
          <a href="http://cos.name/training/">
           讲座与培训
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8115" id="menu-item-8115">
          <a href="http://cos.name/cn/forum/comprehensive/job/">
           招聘信息
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-4780" id="menu-item-4780">
          <a href="http://cos.name/about">
           关于我们
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8113" id="menu-item-8113">
            <a href="http://cos.name/2008/11/how-to-work-with-cos/">
             加入我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8119" id="menu-item-8119">
            <a href="http://cos.name/donate/">
             赞助我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8114" id="menu-item-8114">
            <a href="http://cos.name/cn/forum/26">
             项目合作
            </a>
           </li>
          </ul>
         </li>
        </ul>
       </div>
       <form action="http://cos.name/" class="search-form" method="get" role="search">
        <label>
         <span class="screen-reader-text">
          搜索：
         </span>
        </label>
       </form>
      </nav>
      <!-- #site-navigation -->
     </div>
     <!-- #navbar -->
    </header>
    <!-- #masthead -->
    <div class="site-main" id="main">
     <div class="content-area" id="primary">
      <div class="site-content" id="content" role="main">
       <article class="post-9537 post type-post status-publish format-standard hentry category-analysis-algebra category-multivariate category-math category-data category-packages category-software tag-svd tag-809 tag-811 tag-810 tag-812 tag-531" id="post-9537">
        <header class="entry-header">
         <h1 class="entry-title">
          奇异值分解和图像压缩
         </h1>
         <div class="entry-meta">
          <span class="date">
           <a href="http://cos.name/2014/02/svd-and-image-compression/" rel="bookmark" title="链向奇异值分解和图像压缩的固定链接">
            <time class="entry-date" datetime="2014-02-09T06:40:21+00:00">
             2014/02/09
            </time>
           </a>
          </span>
          <span class="categories-links">
           <a href="http://cos.name/category/math/analysis-algebra/" rel="category tag">
            分析与代数
           </a>
           、
           <a href="http://cos.name/category/data/multivariate/" rel="category tag">
            多元统计
           </a>
           、
           <a href="http://cos.name/category/math/" rel="category tag">
            数学方法
           </a>
           、
           <a href="http://cos.name/category/data/" rel="category tag">
            数据分析
           </a>
           、
           <a href="http://cos.name/category/software/packages/" rel="category tag">
            统计软件
           </a>
           、
           <a href="http://cos.name/category/software/" rel="category tag">
            软件应用
           </a>
          </span>
          <span class="tags-links">
           <a href="http://cos.name/tag/svd/" rel="tag">
            SVD
           </a>
           、
           <a href="http://cos.name/tag/%e5%88%86%e8%a7%a3/" rel="tag">
            分解
           </a>
           、
           <a href="http://cos.name/tag/%e5%8e%8b%e7%bc%a9/" rel="tag">
            压缩
           </a>
           、
           <a href="http://cos.name/tag/%e5%9b%be%e5%83%8f/" rel="tag">
            图像
           </a>
           、
           <a href="http://cos.name/tag/%e5%a5%87%e5%bc%82%e5%80%bc%e5%88%86%e8%a7%a3/" rel="tag">
            奇异值分解
           </a>
           、
           <a href="http://cos.name/tag/%e7%9f%a9%e9%98%b5/" rel="tag">
            矩阵
           </a>
          </span>
          <span class="author vcard">
           <a class="url fn n" href="http://cos.name/author/yixuanq/" rel="author" title="查看所有由邱怡轩发布的文章">
            邱怡轩
           </a>
          </span>
         </div>
         <!-- .entry-meta -->
        </header>
        <!-- .entry-header -->
        <div class="entry-content">
         <p>
          【2.18更新】：
          <a href="https://github.com/road2stat">
           楠神
          </a>
          写了一个非常gelivable的
          <a href="https://github.com/road2stat/imgsvd">
           Shiny应用
          </a>
          ，用来动态展示图片压缩的效果随k的变化情况。
          <a href="http://yihui.name/">
           谢大大
          </a>
          把这个应用放到了
          <a href="https://yihui.shinyapps.io/imgsvd/">
           RStudio的服务器
          </a>
          上，大家可以点进去玩玩看了。
         </p>
         <p style="text-align: center;">
          =====================代表正义的分割线=====================
         </p>
         <p>
          今天我们来讲讲奇异值分解和它的一些有意思的应用。奇异值分解是一个非常，非常，非常大的话题，它的英文是 Singular Value Decomposition，一般简称为 SVD。下面先给出它大概的意思：
         </p>
         <p>
          对于任意一个 $m\times n$ 的矩阵 $M$，不妨假设 $m&gt;n$，它可以被分解为
         </p>
         <p>
          $$M=UDV^T$$
         </p>
         <p>
          其中
         </p>
         <ul>
          <li>
           $U$ 是一个 $m\times n$ 的矩阵，满足 $U^T U=I_n$，$I_n$ 是 $n\times n$ 的单位阵
          </li>
          <li>
           $V$ 是一个 $n\times n$ 的矩阵，满足 $V^T V=I_n$
          </li>
          <li>
           $D$ 是一个 $n\times n$ 的对角矩阵，所有的元素都非负
          </li>
         </ul>
         <p>
          先别急，我看到这个定义的时候和你一样晕，感觉信息量有点大。事实上，上面这短短的三条可以引发出 SVD 许多重要的性质，而我们今天要介绍的也只是其中的一部分而已。
         </p>
         <p>
          <span id="more-9537">
          </span>
         </p>
         <p>
          前面的表达式 $M=UDV^T$ 可以用一种更容易理解的方式表达出来。如果我们把矩阵 $U$ 用它的列向量表示出来，可以写成
         </p>
         <p>
          $$U=(u_1,u_2,\ldots,u_n)$$
         </p>
         <p>
          其中每一个 $u_i$ 被称为 $M$ 的左奇异向量。类似地，对于 $V$，有
         </p>
         <p>
          $$V=(v_1,v_2,\ldots,v_n)$$
         </p>
         <p>
          它们被称为右奇异向量。再然后，假设矩阵 $D$ 的对角线元素为 $d_i$ （它们被称为 $M$ 的奇异值）并按降序排列，那么 $M$ 就可以表达为
         </p>
         <p>
          $$M=d_1u_1v_1^T+d_2u_2v_2^T+\cdots+d_nu_nv_n^T=\sum_{i=1}^n d_iu_iv_i^T=\sum_{i=1}^n A_i$$
         </p>
         <p>
          其中 $A_i=d_iu_iv_i^T$ 是一个 $m\times n$ 的矩阵。换句话说，我们把原来的矩阵 $M$ 表达成了 $n$ 个矩阵的和。
         </p>
         <p>
          这个式子有什么用呢？注意到，我们假定 $d_i$ 是按降序排列的，它在某种程度上反映了对应项 $A_i$ 在 $M$ 中的“贡献”。$d_i$ 越大，说明对应的 $A_i$ 在 $M$ 的分解中占据的比重也越大。所以一个很自然的想法是，我们是不是可以提取出 $A_i$ 中那些对 $M$ 贡献最大的项，把它们的和作为对 $M$ 的近似？也就是说，如果令
         </p>
         <p>
          $$M_k=\sum_{i=1}^k A_i$$
         </p>
         <p>
          那么我们是否可以用 $M_k$ 来对 $M_n\equiv M$ 进行近似？
         </p>
         <p>
          答案是肯定的，不过等一下，这个想法好像似曾相识？对了，多元统计分析中经典的主成分分析就是这样做的。在主成分分析中，我们把数据整体的变异分解成若干个主成分之和，然后保留方差最大的若干个主成分，而舍弃那些方差较小的。事实上，主成分分析就是对数据的协方差矩阵进行了类似的分解（特征值分解），但这种分解只适用于对称的矩阵，而 SVD 则是对任意大小和形状的矩阵都成立。（SVD 和特征值分解有着非常紧密的联系，此为后话）
         </p>
         <p>
          我们再回顾一下，主成分分析有什么作用？答曰，降维。换言之，就是用几组低维的主成分来记录原始数据的大部分信息，这也可以认为是一种信息的（有损）压缩。在 SVD 中，我们也可以做类似的事情，也就是用更少项的求和 $M_k$ 来近似完整的 $n$ 项求和。为什么要这么做呢？我们用一个图像压缩的例子来说明我们的动机。
         </p>
         <p>
          我们知道，电脑上的图像（特指位图）都是由像素点组成的，所以存储一张 1000×622 大小的图片，实际上就是存储一个 1000×622 的矩阵，共 622000 个元素。这个矩阵用 SVD 可以分解为 622 个矩阵之和，如果我们选取其中的前 100 个之和作为对图像数据的近似，那么只需要存储 100 个奇异值 $d_i$，100 个 $u_i$ 向量和 100 个 $v_i$ 向量，共计 100×(1+1000+622)=162300个 元素，大约只有原始的 26% 大小。
         </p>
         <p>
          【注：本文只是为了用图像压缩来介绍 SVD 的性质，实际使用中常见的图片格式（png，jpeg等）其压缩原理更复杂，且效果往往更好】
         </p>
         <p>
          为了直观地来看看 SVD 压缩图像的效果，我们拿一幅 1000×622 的图片来做实验（图片来源：
          <a href="http://www.bjcaca.com/bisai/show.php?pid=33844&amp;bid=40">
           http://www.bjcaca.com/bisai/show.php?pid=33844&amp;bid=40
          </a>
          ）
         </p>
         <figure class="wp-caption aligncenter" id="attachment_9541" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/pic2.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/pic2-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，原图
          </figcaption>
         </figure>
         <figure class="wp-caption aligncenter" id="attachment_9542" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/svd_1.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/svd_1-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，k=1
          </figcaption>
         </figure>
         <figure class="wp-caption aligncenter" id="attachment_9543" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/svd_5.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/svd_5-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，k=5
          </figcaption>
         </figure>
         <figure class="wp-caption aligncenter" id="attachment_9544" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/svd_20.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/svd_20-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，k=20
          </figcaption>
         </figure>
         <figure class="wp-caption aligncenter" id="attachment_9545" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/svd_50.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/svd_50-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，k=50
          </figcaption>
         </figure>
         <figure class="wp-caption aligncenter" id="attachment_9546" style="width: 500px">
          <a href="http://cos.name/wp-content/uploads/2014/02/svd_100.jpg">
           <img src="http://cos.name/wp-content/uploads/2014/02/svd_100-500x311.jpg"/>
          </a>
          <figcaption class="wp-caption-text">
           SVD演示图片，k=100
          </figcaption>
         </figure>
         <p>
          可以看出，当取一个成分时，景物完全不可分辨，但还是可以看出原始图片的整体色调。取 5 个成分时，已经依稀可以看出景物的轮廓。而继续增加 $k$ 的取值，会让图片的细节更加清晰；当增加到 100 时，已经几乎与原图看不出区别。
         </p>
         <p>
          接下来我们要考虑的问题是，$A_k$ 是否是一个好的近似？对此，我们首先需要定义近似好坏的一个指标。在此我们用 $B$ 与 $M$ 之差的 Frobenius 范数 $||M – B||_F$ 来衡量 $B$ 对 $M$ 的近似效果（越小越好），其中矩阵的 Frobenius 范数是矩阵所有元素平方和的开方，当其为 0 时，说明两个矩阵严格相等。
         </p>
         <p>
          此外，我们还需要限定 $A_k$ 的“维度”（否则 $M$ 就是它对自己最好的近似），在这里我们指的是矩阵的
          <a href="http://zh.wikipedia.org/wiki/%E7%A7%A9_%28%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0%29">
           秩
          </a>
          。对于通过 SVD 得到的矩阵 $M_k$，我们有如下的结论：
         </p>
         <blockquote>
          <p>
           在所有秩为 $k$ 的矩阵中，$M_k$ 能够最小化与 $M$ 之间的 Frobenius 范数距离。
          </p>
         </blockquote>
         <p>
          这意味着，如果我们以 Frobenius 范数作为衡量的准则，那么在给定矩阵秩的情况下，SVD 能够给出最佳的近似效果。万万没想到啊。
         </p>
         <p>
          在R中，可以使用
          <code>
           svd()
          </code>
          函数来对矩阵进行 SVD 分解，但考虑到 SVD 是一项计算量较大的工作，我们使用了
          <a href="http://cran.r-project.org/web/packages/rARPACK/index.html">
           rARPACK
          </a>
          包中的
          <code>
           svds()
          </code>
          函数，它可以只计算前 $k$ 项的分解结果。完整的 R 代码如下：
         </p>
         <pre>library(rARPACK);
library(jpeg);

factorize = function(m, k)
{
    r = svds(m[, , 1], k);
    g = svds(m[, , 2], k);
    b = svds(m[, , 3], k);
    return(list(r = r, g = g, b = b));
}

recoverimg = function(lst, k)
{
    recover0 = function(fac, k)
    {
        dmat = diag(k);
        diag(dmat) = fac$d[1:k];
        m = fac$u[, 1:k] %*% dmat %*% t(fac$v[, 1:k]);
        m[m &lt; 0] = 0;
        m[m &gt; 1] = 1;
        return(m);
    }
    r = recover0(lst$r, k);
    g = recover0(lst$g, k);
    b = recover0(lst$b, k);
    m = array(0, c(nrow(r), ncol(r), 3));
    m[, , 1] = r;
    m[, , 2] = g;
    m[, , 3] = b;
    return(m);
}

rawimg = readJPEG("pic2.jpg");
lst = factorize(rawimg, 100);
neig = c(1, 5, 20, 50, 100);
for(i in neig)
{
    m = recoverimg(lst, i);
    writeJPEG(m, sprintf("svd_%d.jpg", i), 0.95);
}</pre>
         <p>
          参考文献
         </p>
         <ol>
          <li>
           <a href="http://www.johnmyleswhite.com/notebook/2009/12/17/image-compression-with-the-svd-in-r/">
            Image Compression with the SVD in R
           </a>
          </li>
          <li>
           <a href="http://www.cs.cornell.edu/jeh/book112013.pdf">
            Foundations of Data Science
           </a>
          </li>
          <li>
           <a href="http://en.wikipedia.org/wiki/Singular_value_decomposition">
            SVD维基页面
           </a>
          </li>
         </ol>
         <div class="wumii-hook">
          <br/>
          <br/>
         </div>
        </div>
        <!-- .entry-content -->
        <footer class="entry-meta">
         <div class="author-info">
          <div class="author-avatar">
           <img src="http://sdn.geekzu.org/avatar/f09663fd5fc04bad5e5b09daddb86fe6?s=74&amp;d=monsterid&amp;r=g"/>
          </div>
          <!-- .author-avatar -->
          <div class="author-description">
           <h2 class="author-title">
            关于邱怡轩
           </h2>
           <p class="author-bio">
            中国人民大学统计学院硕士，普渡（
            <del>
             众生
            </del>
            ）大学博士研究僧
            <a class="author-link" href="http://cos.name/author/yixuanq/" rel="author">
             查看所有由邱怡轩发表的文章
             <span class="meta-nav">
              →
             </span>
            </a>
           </p>
          </div>
          <!-- .author-description -->
         </div>
         <!-- .author-info -->
        </footer>
        <!-- .entry-meta -->
       </article>
       <!-- #post -->
       <nav class="navigation post-navigation" role="navigation">
        <h1 class="screen-reader-text">
         文章导航
        </h1>
        <div class="nav-links">
         <a href="http://cos.name/2014/02/cos-interview-rob-j-hyndman/" rel="prev">
          <span class="meta-nav">
           ←
          </span>
          COS 访谈第十五期：Rob J. Hyndman
         </a>
         <a href="http://cos.name/2014/02/knitr-again/" rel="next">
          COS每周精选：再谈knitr
          <span class="meta-nav">
           →
          </span>
         </a>
        </div>
        <!-- .nav-links -->
       </nav>
       <!-- .navigation -->
       <div class="comments-area" id="comments">
        <h2 class="comments-title">
         《
         <span>
          奇异值分解和图像压缩
         </span>
         》有18个想法
        </h2>
        <ol class="comment-list">
         <li class="comment even thread-even depth-1" id="comment-5326">
          <article class="comment-body" id="div-comment-5326">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/2581339914" rel="external nofollow">
               酱油小厮
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5326">
              <time datetime="2014-02-09T11:06:10+00:00">
               2014/02/09 11:06
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             牛逼！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给酱油小厮" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5326#respond" onclick='return addComment.moveForm( "div-comment-5326", "5326", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-5327">
          <article class="comment-body" id="div-comment-5327">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/66aa115466aeedf71937ff80c00b7982?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/road2stat" rel="external nofollow">
               road2stat
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5327">
              <time datetime="2014-02-09T11:10:58+00:00">
               2014/02/09 11:10
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             火钳流明！哈哈，SVD 就是 PCA，PCA 就是 MDS 。。。
            </p>
            <p>
             可以配着小曲儿读。It Had To Be U: The SVD Song
             <br/>
             <a href="http://v.youku.com/v_show/id_XNDkxMTgzNzU2.html" rel="nofollow">
              http://v.youku.com/v_show/id_XNDkxMTgzNzU2.html
             </a>
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给road2stat" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5327#respond" onclick='return addComment.moveForm( "div-comment-5327", "5327", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment even depth-2 parent" id="comment-5356">
            <article class="comment-body" id="div-comment-5356">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/3d82f80095f636ae2bdecf96c9581eaf?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                linkinbird
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5356">
                <time datetime="2014-02-18T13:55:02+00:00">
                 2014/02/18 13:55
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               我们一直生活在一个超高维度的空间，只是人类的肉眼太弱了……哈哈哈哈
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给linkinbird" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5356#respond" onclick='return addComment.moveForm( "div-comment-5356", "5356", "respond", "9537" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment odd alt depth-3" id="comment-5358">
              <article class="comment-body" id="div-comment-5358">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/66aa115466aeedf71937ff80c00b7982?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  <a class="url" href="http://weibo.com/road2stat" rel="external nofollow">
                   road2stat
                  </a>
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5358">
                  <time datetime="2014-02-18T14:30:31+00:00">
                   2014/02/18 14:30
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 通过人类聪明的大脑可以脑补 。。。
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-5328">
          <article class="comment-body" id="div-comment-5328">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/436174399b7aaeb22c666bc623015a5c?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://www.puddingnnn.com/" rel="external nofollow">
               布丁Nnn
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5328">
              <time datetime="2014-02-09T11:20:14+00:00">
               2014/02/09 11:20
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             小轩哥出品必属精品啊，忍不住过来怒赞！！！ 不如写一个系列吧，SVD的前世今生～～
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给布丁Nnn" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5328#respond" onclick='return addComment.moveForm( "div-comment-5328", "5328", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-5329">
          <article class="comment-body" id="div-comment-5329">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/54acb955c66a4a34899604cf9a775d1c?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              yangzhixuan
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5329">
              <time datetime="2014-02-09T12:06:43+00:00">
               2014/02/09 12:06
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             不该把U定义成m乘n的，别人本来是R^m的标准正交基，原矩阵的行空间和零空间的基底，你平白无故给他切掉了几列，毫无必要，还假设了m比n大
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给yangzhixuan" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5329#respond" onclick='return addComment.moveForm( "div-comment-5329", "5329", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yixuanq bypostauthor even depth-2" id="comment-5333">
            <article class="comment-body" id="div-comment-5333">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/f09663fd5fc04bad5e5b09daddb86fe6?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                Yixuan
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5333">
                <time datetime="2014-02-09T13:24:02+00:00">
                 2014/02/09 13:24
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               同意你说的，但这里用的是所谓的窄版SVD，因为从矩阵近似的角度来说，剩下的几组基底是没有用的。m&gt;n的问题好办，转置一下再分解就是。主要是不想涉及太多概念上的东西，就把一些内容省掉了。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给Yixuan" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5333#respond" onclick='return addComment.moveForm( "div-comment-5333", "5333", "respond", "9537" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-5331">
          <article class="comment-body" id="div-comment-5331">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/85a76fe875c7707150d892a2d293ed8d?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/1226411107" rel="external nofollow">
               Bing
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5331">
              <time datetime="2014-02-09T12:28:59+00:00">
               2014/02/09 12:28
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             好文，赞一个。
             <br/>
             "SVD 和特征值分解有着非常紧密的联系，此为后话"。 这个后话也值得详细写一篇：U和V的得来以及各自如何解释才是SVD更加引人入胜的地方：归根结底还是谱分解定理的扩展，是PCA在行空间和列空间的推广。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Bing" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5331#respond" onclick='return addComment.moveForm( "div-comment-5331", "5331", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment byuser comment-author-hetong007 even thread-odd thread-alt depth-1" id="comment-5335">
          <article class="comment-body" id="div-comment-5335">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/b49d125d112a01106b48a2fcda481c3e?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              严酷的魔王
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5335">
              <time datetime="2014-02-09T13:51:33+00:00">
               2014/02/09 13:51
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             要是能列出k=1~5的图层分别是什么样的就好了，还有d1~d5的数值，可以直观地看出数值的贡献~
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给严酷的魔王" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5335#respond" onclick='return addComment.moveForm( "div-comment-5335", "5335", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment byuser comment-author-yihui odd alt thread-even depth-1 parent" id="comment-5338">
          <article class="comment-body" id="div-comment-5338">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://yihui.name" rel="external nofollow">
               谢益辉
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5338">
              <time datetime="2014-02-09T15:15:40+00:00">
               2014/02/09 15:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             帅气！谁来搞个Shiny app，用滑动条来选择k，实时看结果？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5338#respond" onclick='return addComment.moveForm( "div-comment-5338", "5338", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yixuanq bypostauthor even depth-2" id="comment-5340">
            <article class="comment-body" id="div-comment-5340">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/f09663fd5fc04bad5e5b09daddb86fe6?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                Yixuan
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5340">
                <time datetime="2014-02-09T22:27:35+00:00">
                 2014/02/09 22:27
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               计算量还是有点大的，除非把图片预先生成好，不过那就是放幻灯片了，哈哈。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给Yixuan" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5340#respond" onclick='return addComment.moveForm( "div-comment-5340", "5340", "respond", "9537" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-5339">
          <article class="comment-body" id="div-comment-5339">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://t.qq.com/dukaht" rel="external nofollow">
               诺敏
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5339">
              <time datetime="2014-02-09T22:15:31+00:00">
               2014/02/09 22:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             好文，学习了
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给诺敏" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5339#respond" onclick='return addComment.moveForm( "div-comment-5339", "5339", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-5342">
          <article class="comment-body" id="div-comment-5342">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/317486d54c6df03f10d20a03e5db37cc?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/2325724813" rel="external nofollow">
               sglidq
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5342">
              <time datetime="2014-02-11T19:45:18+00:00">
               2014/02/11 19:45
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             SVD的文章，赞一个！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给sglidq" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5342#respond" onclick='return addComment.moveForm( "div-comment-5342", "5342", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-5352">
          <article class="comment-body" id="div-comment-5352">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/28c3ade7145611984cb088f80ac7093e?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Sean
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5352">
              <time datetime="2014-02-16T20:34:39+00:00">
               2014/02/16 20:34
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             SVD 和特征值分解有着非常紧密的联系，此为后话
             <br/>
             U和V的得来以及各自如何解释才是SVD更加引人入胜的地方：归根结底还是谱分解定理的扩展，是PCA在行空间和列空间的推广
            </p>
            <p>
             期待后话！！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Sean" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5352#respond" onclick='return addComment.moveForm( "div-comment-5352", "5352", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback even thread-even depth-1" id="comment-5367">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://cos.name/2014/02/personal-feelings/" rel="external nofollow">
            COS每周精选：听过来人说 | 统计之都
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-5841">
          <article class="comment-body" id="div-comment-5841">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/banruoziding" rel="external nofollow">
               般若紫丁
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-5841">
              <time datetime="2014-06-05T00:15:35+00:00">
               2014/06/05 00:15
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             学长你好，我想请教一下rainbow软件包的使用问题：软件包里示例数据我看到都是月度数据，我想用该包来展示年度数据的相关图形，结果怎么也运行不出来。
             <br/>
             比如：foutliers(scicbj, method = "depth.trim")
             <br/>
             错误于apply(functions[lista, ], 2, mean) :
             <br/>
             dim(X) must have a positive length
             <br/>
             这里scicbj的结构和示例中的ElNino是相同的，只不过是scicbj中x为1，示例为12（例子是月度数据）。
             <br/>
             这个包是本来就不能处理年度数据吗？还是我哪里出了问题呢？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给般若紫丁" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=5841#respond" onclick='return addComment.moveForm( "div-comment-5841", "5841", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-7108">
          <article class="comment-body" id="div-comment-7108">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/f39cc3d16507b12fba8736b78691b665?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Xiao5
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-7108">
              <time datetime="2016-03-19T16:18:23+00:00">
               2016/03/19 16:18
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             如果A=SVD
            </p>
            <p>
             假设A为m*n的矩阵，那么进行分解之后：
             <br/>
             S为m*m
             <br/>
             V为m*n
             <br/>
             D为n*n
             <br/>
             这样才对？
             <br/>
             参看维基百科中的解释
             <br/>
             <a href="https://zh.wikipedia.org/wiki/%E5%A5%87%E5%BC%82%E5%80%BC%E5%88%86%E8%A7%A3？！" rel="nofollow">
              https://zh.wikipedia.org/wiki/%E5%A5%87%E5%BC%82%E5%80%BC%E5%88%86%E8%A7%A3？！
             </a>
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Xiao5" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=7108#respond" onclick='return addComment.moveForm( "div-comment-7108", "7108", "respond", "9537" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yixuanq bypostauthor odd alt depth-2" id="comment-7113">
            <article class="comment-body" id="div-comment-7113">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/f09663fd5fc04bad5e5b09daddb86fe6?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yixuan.cos.name/cn" rel="external nofollow">
                 Yixuan
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2014/02/svd-and-image-compression/#comment-7113">
                <time datetime="2016-03-21T08:03:52+00:00">
                 2016/03/21 08:03
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               这个与之前一条评论相关，维基中给出的是完整版的SVD，我这里用的是紧凑版的。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给Yixuan" class="comment-reply-link" href="http://cos.name/2014/02/svd-and-image-compression/?replytocom=7113#respond" onclick='return addComment.moveForm( "div-comment-7113", "7113", "respond", "9537" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
        </ol>
        <!-- .comment-list -->
        <div class="comment-respond" id="respond">
         <h3 class="comment-reply-title" id="reply-title">
          发表评论
          <small>
           <a href="http://cos.name/2014/02/svd-and-image-compression/#respond" id="cancel-comment-reply-link" rel="nofollow" style="display:none;">
            取消回复
           </a>
          </small>
         </h3>
         <form action="http://cos.name/wp-comments-post.php" class="comment-form" id="commentform" method="post" novalidate="">
          <p class="comment-notes">
           <span id="email-notes">
            电子邮件地址不会被公开。
           </span>
           必填项已用
           <span class="required">
            *
           </span>
           标注
          </p>
          <p class="comment-form-comment">
           <label for="comment">
            评论
           </label>
           <textarea aria-required="true" cols="45" id="comment" maxlength="65525" name="comment" required="required" rows="8">
           </textarea>
          </p>
          <p class="comment-form-author">
           <label for="author">
            姓名
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-email">
           <label for="email">
            电子邮件
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-url">
           <label for="url">
            站点
           </label>
          </p>
          <p class="form-submit">
          </p>
          <p style="display: none;">
          </p>
          <p style="display: none;">
          </p>
         </form>
        </div>
        <!-- #respond -->
       </div>
       <!-- #comments -->
      </div>
      <!-- #content -->
     </div>
     <!-- #primary -->
     <div class="sidebar-container" id="tertiary" role="complementary">
      <div class="sidebar-inner">
       <div class="widget-area">
        <aside class="widget widget_text" id="text-3">
         <h3 class="widget-title">
          关注统计之都
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            新浪微博
            <a href="http://weibo.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            人人网
            <a href="http://renren.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            Twitter
            <a href="http://twitter.com/cos_name">
             @cos_name
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-6">
         <h3 class="widget-title">
          微信公众平台
         </h3>
         <div class="textwidget">
          <img src="http://cos.name/wp-content/uploads/2013/04/qrcode-8cm.jpg"/>
          <p style="font-size:12px;margin-left:15px">
           微信号 CapStat
          </p>
          <p>
           我们将第一时间向您推送主站和论坛的精彩内容，以及统计之都的线下活动、竞赛、培训和会议信息。
          </p>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-8">
         <h3 class="widget-title">
          站内导航
         </h3>
         <div class="textwidget">
          <ul>
           <li class="page_item">
            <a href="http://cos.name/cn/">
             中文论坛
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/videos/">
             视频
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/salon/">
             统计沙龙
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/books/">
             图书出版
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/training/">
             教育培训
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/about/">
             关于我们
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/donate/">
             捐赠
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/chinar/">
             R语言会议
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_links" id="linkcat-2">
         <h3 class="widget-title">
          友情链接
         </h3>
         <ul class="xoxo blogroll">
          <li>
           <a href="http://stat.ruc.edu.cn" target="_blank" title="中国人民大学统计学院网站">
            中国人民大学统计学院
           </a>
          </li>
          <li>
           <a href="http://rucdmc.net">
            中国人民大学数据挖掘中心
           </a>
          </li>
          <li>
           <a href="http://birc.gsm.pku.edu.cn/" target="_blank">
            北京大学商务智能研究中心
           </a>
          </li>
          <li>
           <a href="http://sam.cufe.edu.cn/" target="_blank" title="中央财经大学统计与数学学院网站">
            中央财经大学统计与数学学院
           </a>
          </li>
          <li>
           <a href="http://tjx.cueb.edu.cn/" target="_blank" title="首都经济贸易大学统计学院网站">
            首经贸统计学院
           </a>
          </li>
          <li>
           <a href="http://www.shookr.com/">
            数客网大数据社区
           </a>
          </li>
          <li>
           <a href="http://www.xueqing.tv/" target="_blank" title="数据科学在线学习平台">
            雪晴数据网
           </a>
          </li>
          <li>
           <a href="http://iera.name/" target="_blank" title="IERA是一个旨在普及、传播和增进工业工程知识的非营利性网站">
            IERA（直通IE）
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_categories" id="categories-2">
         <h3 class="widget-title">
          全部分类
         </h3>
         <label class="screen-reader-text" for="cat">
          全部分类
         </label>
         <select class="postform" id="cat" name="cat">
          <option value="-1">
           选择分类目录
          </option>
          <option class="level-0" value="925">
           cos访谈  (4)
          </option>
          <option class="level-0" value="659">
           图书出版  (5)
          </option>
          <option class="level-0" value="379">
           数学方法  (14)
          </option>
          <option class="level-1" value="381">
           分析与代数  (1)
          </option>
          <option class="level-1" value="380">
           概率论  (9)
          </option>
          <option class="level-1" value="382">
           随机过程  (5)
          </option>
          <option class="level-0" value="210">
           数据分析  (81)
          </option>
          <option class="level-1" value="203">
           多元统计  (3)
          </option>
          <option class="level-1" value="42">
           数据挖掘与机器学习  (42)
          </option>
          <option class="level-1" value="36">
           生物与医学统计  (17)
          </option>
          <option class="level-1" value="35">
           计量经济学  (4)
          </option>
          <option class="level-1" value="296">
           金融统计  (3)
          </option>
          <option class="level-1" value="303">
           风险精算  (7)
          </option>
          <option class="level-0" value="177">
           模型专题  (15)
          </option>
          <option class="level-1" value="38">
           回归分析  (10)
          </option>
          <option class="level-1" value="41">
           时间序列  (2)
          </option>
          <option class="level-0" value="784">
           每周精选  (24)
          </option>
          <option class="level-1" value="183">
           可视化  (9)
          </option>
          <option class="level-0" value="967">
           沙龙纪要  (3)
          </option>
          <option class="level-0" value="18">
           经典理论  (46)
          </option>
          <option class="level-1" value="37">
           抽样调查  (3)
          </option>
          <option class="level-1" value="4">
           统计推断  (26)
          </option>
          <option class="level-1" value="236">
           试验设计  (7)
          </option>
          <option class="level-1" value="39">
           非参数统计  (3)
          </option>
          <option class="level-0" value="1">
           统计之都  (279)
          </option>
          <option class="level-1" value="884">
           中国R会议  (2)
          </option>
          <option class="level-1" value="885">
           中国R语言会议  (5)
          </option>
          <option class="level-1" value="446">
           出国留学  (3)
          </option>
          <option class="level-1" value="179">
           推荐文章  (90)
          </option>
          <option class="level-1" value="3">
           新闻通知  (75)
          </option>
          <option class="level-1" value="263">
           统计刊物  (10)
          </option>
          <option class="level-1" value="174">
           网站导读  (40)
          </option>
          <option class="level-1" value="204">
           职业事业  (51)
          </option>
          <option class="level-1" value="213">
           高校课堂  (9)
          </option>
          <option class="level-0" value="178">
           统计计算  (28)
          </option>
          <option class="level-1" value="40">
           优化与模拟  (15)
          </option>
          <option class="level-1" value="43">
           贝叶斯方法  (6)
          </option>
          <option class="level-0" value="378">
           软件应用  (116)
          </option>
          <option class="level-1" value="44">
           统计图形  (36)
          </option>
          <option class="level-1" value="110">
           统计软件  (83)
          </option>
         </select>
        </aside>
        <aside class="widget widget_recent_comments" id="recent-comments-2">
         <h3 class="widget-title">
          最新评论
         </h3>
         <ul id="recentcomments">
          <li class="recentcomments">
           <span class="comment-author-link">
            fineboom
           </span>
           发表在《
           <a href="http://cos.name/2016/06/use-shiny-fleetly-set-up-visual-prototype-system/#comment-7317">
            利用shiny包快速搭建可视化原型系统
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            胡家新
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7316">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://www.zijiacha.com/category.php?id=6" rel="external nofollow">
             南糯山普洱茶
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7315">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            J
           </span>
           发表在《
           <a href="http://cos.name/2016/05/value-of-the-reputation-from-the-data/#comment-7314">
            数据告诉你：高信誉的卖家应该收高价，还是收低价？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://gg" rel="external nofollow">
             Hilda
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2013/01/drawing-map-in-r-era/#comment-7311">
            R时代，你要怎样画地图？
           </a>
           》
          </li>
         </ul>
        </aside>
        <aside class="widget widget_rss" id="rss-282869971">
         <h3 class="widget-title">
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           <img src="http://cos.name/wp-includes/images/rss.png"/>
          </a>
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           中文论坛新帖
          </a>
         </h3>
         <ul>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417372/">
            处理时间数据和产生时间序列的问题
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/6790/">
            《统计陷阱》下载 （How to lie with statistics）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/818/">
            统计学的世界（第五版）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/16574/">
            class(x) 返回值值是AsIs,AsIs代表什么，有什么用处？
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417366/">
            如何用R绘制一个分类算法的决策规则
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_text" id="text-2">
         <h3 class="widget-title">
          登录/RSS
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            <a href="http://cos.name/wp-admin/">
             登录
            </a>
           </li>
           <li>
            <a href="http://cos.name/feed/" title="使用 RSS 2.0 同步站点内容">
             文章
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
           <li>
            <a href="http://cos.name/comments/feed/" title="RSS 上的最近评论">
             评论
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
          </ul>
         </div>
        </aside>
       </div>
       <!-- .widget-area -->
      </div>
      <!-- .sidebar-inner -->
     </div>
     <!-- #tertiary -->
    </div>
    <!-- #main -->
    <footer class="site-footer" id="colophon" role="contentinfo">
     <div class="site-info">
      版权所有 © 2014 统计之都 | 由
      <a href="http://wordpress.org/">
       WordPress
      </a>
      构建 | 主题修改自
      <a href="http://wordpress.org/themes/twentythirteen">
       Twenty Thirteen
      </a>
     </div>
     <!-- .site-info -->
    </footer>
    <!-- #colophon -->
   </div>
   <!-- #page -->
   <p style="margin:0;padding:0;height:1px;overflow:hidden;">
    <a href="http://www.wumii.com/widget/relatedItems" style="border:0;">
     <img src="http://static.wumii.cn/images/pixel.png"/>
    </a>
   </p>
  </div>
 </body>
</html>